2026年，Scaling Law是否还能继续玩下去？对于这个问题，一篇来自DeepMind华人研究员的万字长文在社交网络火了：Scaling Law没死！算力依然就是正义，AGI才刚刚上路。
过去10年，AI大模型的技术本质，是把电力能源通过计算过程转化为可复用的智能。2026年，我们需要让AI模型在单位时间内「吃下」更多能源，并真正将其转化为智能。
在代码大模型（Code LLMs）的预训练中，行业内长期存在一种惯性思维，即把所有编程语言的代码都视为同质化的文本数据，主要关注数据总量的堆叠。然而，现代软件开发本质上是多语言混合的，不同语言的语法特性、语料规模和应用场景差异巨大。
生成式AI狂奔三年，2025迎来架构创新的大年，三条脉络交织演进，伴随着Scaling law（规模定律）遇到天花板的争议，开始定义AI进化的新范式。
MiniMax海螺视频团队不藏了！首次开源就揭晓了一个困扰行业已久的问题的答案——为什么往第一阶段的视觉分词器里砸再多算力，也无法提升第二阶段的生成效果？翻译成大白话就是，虽然图像/视频生成模型的参数越做越大、算力越堆越猛，但用户实际体验下来总有一种微妙的感受——这些庞大的投入与产出似乎不成正比，模型离完全真正可用总是差一段距离。
2025 年还有一周结束，年底，AI 视频圈又卷起来了。
AI不应是巨头游戏，模型也不是越大越聪明。近日，「Transformer八子」中的Ashish Vaswani和Parmar共同推出了一个8B的开源小模型，剑指Scaling Law软肋，为轻量化、开放式AI探索了新方向。
谷歌大模型将迎颠覆升级！Gemini负责人爆料：长上下文效率与长度双重突破在即，注意力机制迎来惊人发现。Scaling Law未死，正加速演变！
MiniMax 海螺视频团队「首次开源」了 VTP（Visual Tokenizer Pre-training）项目。他们同步发布了一篇相当硬核的论文，它最有意思的地方在于 3 个点：「重建做得越好，生成反而可能越差」，传统 VAE 的直觉是错的
压缩即智能，又有新进展！
